AI индустрията оказва влияние върху света. Съветникът на Mozilla Абеба Бирхане оспорва нейните основни ценности

„ Увеличаване “ е крилата фраза в промишлеността за изкуствен интелект, защото софтуерните компании бързат да подобрят своите AI системи с все по-големи набори от интернет данни.

Това също е червен байрак за Абеба Бирхане от Mozilla, специалист по изкуствен интелект, който от години провокира полезностите и практиките в своята област и въздействието, което има върху света.

Последното й проучване открива, че мащабирането на онлайн данни, употребявани за образование на известни принадлежности за генериране на изображения с изкуствен интелект, води до непропорционално расистки резултати, изключително против чернокожи мъже.

Бирхане е старши консултант в отчетността на AI в Mozilla Foundation, организацията с нестопанска цел на компанията за безвъзмезден програмен продукт, която ръководи уеб браузъра Firefox. Израснала в Етиопия и живееща в Ирландия, тя също е помощник-асистент в колежа Тринити в Дъблин.

Интервюто й с Асошиейтед прес е редактирано за дължина и изясненост.

В: Как започнахте в региона на ИИ?

О: По обучение съм когнитивен академик. Cog sci няма личен отдел, където и да го изучавате. Така че там, където учих, беше компютърни науки. Бях подложен в лаборатория, цялостна с учащи се машини. Те правеха толкоз доста невероятни неща и никой не обръщаше внимание на данните. Намерих това за доста занимателно и също доста забавно, тъй като смятах, че данните са един от най-важните съставни елементи за триумфа на вашия модел. Но ми се стори необичайно, че хората не обръщат толкоз доста внимание или време, с цел да питат: „ Какво има в моя набор от данни? “ Ето по какъв начин се заинтересувах от това пространство. И по-късно в последна сметка започнах да върша одити на широкомащабни масиви от данни.

В: Можете ли да говорите за работата си върху етичните основи на ИИ?

О: Всеки има мнение за това какво съставлява машинното образование. Така че машинните учащи се – хора от AI общността – ви споделят, че това няма стойност. Това е просто математика, обективно е, неутрално е и по този начин нататък. Докато учените в обществените науки ви споделят, че както всяка технология, машинното образование кодира полезностите на тези, които го подхранват. Така че това, което направихме, беше, че систематично проучихме 100 от най-влиятелните документи за машинно образование, с цел да разберем в действителност какво интересува тази област и да го създадем по доста непоколебим метод.

О: И една от тези полезности беше увеличението на мащаба?

В: Мащабът се счита за светия граал на триумфа. Имате откриватели от огромни компании като DeepMind, Гугъл и Meta, които настояват, че мащабът побеждава шума и мащабът отстранява шума. Идеята е, че до момента в който увеличавате мащаба, всичко във вашия набор от данни би трябвало някак да се изравни, да се балансира някак. И би трябвало да завършите с нещо като обикновено систематизиране или нещо по-близо до главната истина. Това е концепцията.

В: Но вашето проучване изследва по какъв начин увеличението на мащаба може да докара до щета. Кои са някои от тях?

О: Поне що се отнася до насаждащо ненавист наличие или токсичност и така нататък, мащабирането на тези набори от данни също мащабира проблемите, които съдържат. По-конкретно, в подтекста на нашето изследване, мащабирането на набори от данни също усилва мащаба на насаждащо ненавист наличие в набора от данни. Измерихме количеството насаждащо ненавист наличие в два набора от данни. Насаждащото ненавист наличие, целевото наличие и агресивното наличие се усилиха, защото наборът от данни беше мащабиран от 400 милиона на 2 милиарда. Това беше доста безапелационна констатация, която демонстрира, че законите за мащабиране в действителност не устоят, когато става въпрос за данни за образование. (В друга статия) открихме, че дамите с по-тъмна кожа и по-специално мъжете са склонни да бъдат определяни като подозрителни лица или нарушители в доста по-висок %.

В: Доколко сте обнадеждени или уверени, че AI промишлеността ще направи измененията, които предложихте?

О: Това не са просто чисто математически, механически резултати. Те също са принадлежности, които оформят обществото, които въздействат на обществото. Препоръките са също по този начин да подтикваме и да обръщаме внимание на полезности като правдивост, правдивост, цялост на персоналния живот и така нататък Моят почтен отговор е, че нямам никаква убеденост, че промишлеността ще одобри нашите рекомендации. Те в никакъв случай не са приемали рекомендации като тази, които в действителност ги предизвикват да одобряват съществено тези публични проблеми. Вероятно в никакъв случай няма да го създадат. Корпорациите и огромните компании са склонни да работят, когато това се изисква по закон. Имаме потребност от доста мощна, използвана регулация. Те също реагират на публичното отвращение и публичното схващане. Ако се стигне до положение, в което репутацията им е накърнена, те са склонни да създадат смяна.